iT邦幫忙

2026 iThome 鐵人賽

DAY 29
0

YOLOv3 COCO 80 類已經接上 MIPI(Mobile Industry Processor Interface) 相機,RTSP 串流大約 8 FPS,每一張都有跑推論。。

用 VLC 開 rtsp://192.168.0.20:554/test 把相機轉向人、椅子、螢幕、杯子、手機這類東西,就出現底下的綠色的類別名稱和框。

Claude Code 做了什麼?

  1. 重新編譯模型:在 WSL 裡用 Vitis AI 2.5 的 Docker,把 Model Zoo 已經量化好的 YOLOv3 COCO 重新編譯成 smartcam 這邊 DPU(B3136)能跑的版本。輸出張量和原本的 B4096 版一樣,所以原本的參數檔可以直接用。
  2. 補 label.json:VVAS 跑 YOLO 需要一份類別名稱表,用 COCO 80 類的清單產生了一份。
  3. 改用自己的 pipeline:直接套進 smartcam 原本的程式,只有大約 1 FPS。原因是 YOLO 推論每秒只能跑 9.6 張,跟不上相機的 30 FPS,推論結果和原圖大部分對不起來,畫面就被丟掉了。現在在 smartcam 容器裡跑Claude Code寫的 yolo_rtsp.py:先把相機畫面降到 8 FPS,讓推論跟得上,這樣每一張都有推論結果。

目前的狀態

  • 推論本身正常,除錯輸出看得到 oven 0.49、refrigerator 0.33 這類結果。
  • 偶爾才出框,是因為這個角度沒有明顯的物體,信心度大多低於 0.3 的門檻。
  • 畫面偏藍,應該是相機在日光燈下的自動白平衡。

https://ithelp.ithome.com.tw/upload/images/20261013/20118900qbvNL6eI2o.png
Figure 1:YOLOv3 with MIPI Camera

https://ithelp.ithome.com.tw/upload/images/20261013/20118900gChrefT1Vk.png
Figure 2:YOLOv3 with MIPI Camera 2

https://ithelp.ithome.com.tw/upload/images/20261013/20118900gaZudoUfOy.png
Figure 3:MIPI Camera Module

*PS: MIPI (行動產業處理器介面) 是一個由 MIPI 聯盟於 2003 年創立的開放性技術標準規範 *


上一篇
[Day 28] 好還能更好,換COCO 80 模型
下一篇
[Day 30] 以人為本的AI時代
系列文
用 Claude 帶我 Bring Up AI 開發板:30 天人機協作實錄 共 30 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言